]> dgit.raspbian.org Git - gnome-shell.git/commit
shell-app: remove child_setup from app launching
authorDaniel Drake <drake@endlessm.com>
Wed, 6 Jun 2018 13:07:17 +0000 (07:07 -0600)
committerFlorian Müllner <florian.muellner@gmail.com>
Mon, 30 Jul 2018 23:11:41 +0000 (23:11 +0000)
commit4b522a02c31d8a3010bdfd1924a38a8f6855457a
treeb57a6525f9c23cf0f7e5fe6a9b8347e969fd54d5
parentebe6f59d7e3c3b520b5d52ddf39be6a64ec3f80b
shell-app: remove child_setup from app launching

When the amount of free memory on the system is somewhat low, gnome-shell
will sometimes fail to launch apps, reporting the error:
  fork(): Cannot allocate memory

fork() is failing here because while cloning the process virtual address
space, Linux worries that the thread being forked may end up COWing the
entire address space of the parent process (gnome-shell, which is
memory-hungry), and there is not enough free memory to permit that to
happen. This check is somewhat irrelevant because we are only forking
to immediately exec(), which will discard the whole virtual address
space anyway.

This issue can be avoided by using a new optimized gspawn codepath in
the latest glib development version, which uses posix_spawn() internally.

For the optimized codepath to be used, we must not pass a child_setup
function, so the the file descriptor management is reimplemented here
using new glib API to pass fds to the child process. The old API will
continue to be used on older glib versions.

We must also change the spawn flags for this code path to be hit.
I checked that gnome-shell's open file descriptors are all CLOEXEC
so using G_SPAWN_LEAVE_DESCRIPTORS_OPEN should be safe.

This will result in more resilient app launching when memory is low,
since the optimized spawn path avoids cloning the virtual address
space of the parent process (gnome-shell) and avoids the irrelevant
memory overcommit check.

https://gitlab.gnome.org/GNOME/gnome-shell/merge_requests/132
config.h.meson
meson.build
src/shell-app.c